Sejarah penubuhan Sekolah Menengah Kebanggsaan Agama (SMKA) bermula dengan pengambilalihan 11 buah Sekolah Agama Negeri dan Rakyat oleh Kementerian Pelajaran Malaysia pada tahun 1977. Dari 11 buah sekolah SMKA telah berkembang kepada 55 buah SMKA.[1]

Idea awal penubuhan SMKA diilhamkan oleh Pengarah Bahagian Agama Kementerian Pelajaran ketika itu, Allahyarham Tuan Haji Nik Mohammed Mohyideen bin Haji Wan Musa. Hal ini memang menjadi hasrat Kementerian Pelajaran Malaysia dan hasrat masyarakatIslam yang sedar akan faedahnya. Sebelum ini berapa langkah telah diambil dengan member bantuan kepada sekolah-sekolah agamarakyat dan mencadangkan sekolah-sekolah itu mempraktikkan system baru.

Penubuhan SMKA seiring dengan usaha pemodenan system pendidikan Negara. Proses penambaikan system pendidikan Islam di sekolah-sekolah agama sesuai dengan perkembangan semasa. Justeru, ilham Allahyarham Haji Nik Mohyideen Bin Haji Wan Musa ini telah direalisasikan oleh Tan Sri Dato’ Paduka Dr. Abdul Hamid bin Othman dan Dato Zainal Abidin bin Haji Abdul Kadir.

Pada tahu 1970-an sekolah-sekolah menengah agama rakyat kurang mendapat sambutan kerana system pentadbirannya yang tidak teratur dan kurang prasarana. Pada masa yang sama, kesedaran masyarakat terhadap pendidikan semakin meningkat. Oleh itu Kementerian Pelajaran pada masa itu telah berunding dengan kerajaan-kerajaan negeri di Semenanjung Malaysia agar system pentadbiran dan kurikulum di sekolah-sekolah agam diselaraskan dengan sekolah menengah harian.

Kebanyakkan sekolah agama sebelum ini menitikberatkan Pengajian Islam dan Bahasa Arab sahaja tanpa memberi perhatian kepada matapelajaran yang lain seperti yang wujud di Sekolah Menengah Kebangsaan misalnya matapelajaran Sains, Matematik, Geografi dan lain-lain. Fenomena ini berlaku kerana sekolah-sekolah agama tidak berkemampuan untuk menyediakan bilik-bilik makmal yang mahal harganya. Implikasinya lulusan sekolah agama kurang mampu bersaing dalam pasaran sumber tenaga manusia dan cabaran masyrakat semasa.[2]